Bayesian estimation of the parameters of the joint multifractal spectrum of signals and images

Multifractal analysis has become a reference tool for signal and image processing. Grounded in the quantification of local regularity fluctuations, it has proven useful in an increasing range of applications, yet so far involving only univariate data (scalar-valued time series or single channel images). Recently the theoretical ground for multivariate multifractal analysis has been devised, showing potential for quantifying transient higher-order dependence beyond linear correlation among collections of data. However, the accurate estimation of the parameters associated with a multivariate multifractal model remains challenging, severely limiting their actual use in applications. The main goal of this thesis is to propose and study practical contributions on multivariate multifractal analysis of signals and images. Specifically, the proposed approach relies on a novel and original joint Gaussian model for the logarithm of wavelet leaders and leverages on a Whittle-based likelihood approximation and data augmentation for the matrix-valued parameters of interest. This careful design enables efficient estimation procedures to be constructed for two relevant choices of priors using Bayesian inference. Algorithms based on Monte Carlo Markov Chain and Expectation Maximization strategies are designed and used to approximate the Bayesian estimators. Monte Carlo simulations, conducted on synthetic multivariate signals and images with various sample sizes, numbers of components and multifractal parameter settings, demonstrate significant performance improvements over the state of the art. In addition, theoretical lower bounds on the variance of the estimators are designed to study their asymptotic behavior. Finally, the relevance of the proposed multivariate multifractal estimation framework is shown for two real-world data examples: drowsiness detection from multichannel physiological signals and potential remote sensing applications in multispectral satellite imagery

Estimation bayésienne des paramètres du spectre multifractal multivarié pour le traitement du signal et des images

Multifractal analysis has become a reference tool for signal and image processing. Grounded in the quantification of local regularity fluctuations, it has proven useful in an increasing range of applications, yet so far involving only univariate data (scalar-valued time series or single channel images). Recently the theoretical ground for multivariate multifractal analysis has been devised, showing potential for quantifying transient higher-order dependence beyond linear correlation among collections of data. However, the accurate estimation of the parameters associated with a multivariate multifractal model remains challenging, severely limiting their actual use in applications. The main goal of this thesis is to propose and study practical contributions on multivariate multifractal analysis of signals and images. Specifically, the proposed approach relies on a novel and original joint Gaussian model for the logarithm of wavelet leaders and leverages on a Whittle-based likelihood approximation and data augmentation for the matrix-valued parameters of interest. This careful design enables efficient estimation procedures to be constructed for two relevant choices of priors using Bayesian inference. Algorithms based on Monte Carlo Markov Chain and Expectation Maximization strategies are designed and used to approximate the Bayesian estimators. Monte Carlo simulations, conducted on synthetic multivariate signals and images with various sample sizes, numbers of components and multifractal parameter settings, demonstrate significant performance improvements over the state of the art. In addition, theoretical lower bounds on the variance of the estimators are designed to study their asymptotic behavior. Finally, the relevance of the proposed multivariate multifractal estimation framework is shown for two real-world data examples: drowsiness detection from multichannel physiological signals and potential remote sensing applications in multispectral satellite imagery.L'analyse multifractale est devenue un outil de référence pour le traitement des signaux et des images. Fondée sur la quantification des fluctuations de la régularité locale, elle s'est avérée utile dans un nombre croissant d'applications, qui ne concernaient pourtant jusqu'à présent que des données univariées (séries temporelles à valeurs scalaires ou images acquises dans une seule bande spectrale). Récemment, les bases théoriques de l'analyse multifractale multivariée ont été élaborées, montrant un potentiel pour quantifier les dépendances entre plusieurs collections de données allant au-delà de la corrélation linéaire. Cependant, l'estimation précise des paramètres associés à un modèle multifractal multivarié reste un défi, limitant sévèrement leur utilisation réelle dans les applications. L'objectif principal de cette thèse est de proposer et d'étudier des méthodes d'analyse multifractale multivariée pour le traitement du signal et des images. Plus précisément, l'approche proposée s'appuie sur un nouveau modèle Gaussien multivarié adapté au logarithme des coefficients dominants d’ondelettes. Ce modèle utilise une approximation de la vraisemblance basée sur les résultats de Whittle et une augmentation de données pour les paramètres d'intérêt à valeurs matricielles. Ce modèle permet de construire des procédures d'estimation efficaces pour deux choix pertinents de lois a priori dans un contexte d'inférence Bayésienne. Des algorithmes basés sur des stratégies de Monte Carlo par chaines de Markov et d’Expectation-Maximization sont conçus et utilisés pour calculer les estimateurs bayésiens. Des simulations de Monte Carlo, réalisées sur des images et des signaux synthétiques multivariés avec différentes tailles d'échantillon, différents nombres de composantes et différents jeux de paramètres, montrent des améliorations significatives des performances par rapport à l'état de l'art. En outre, des limites inférieures théoriques sur la variance des estimateurs sont déterminées pour étudier le comportement asymptotique de ces estimateurs. Enfin, la pertinence du cadre d'estimation multifractale multivariée proposé est démontrée par l’application à deux exemples de données réelles : la détection de la somnolence à partir de signaux physiologiques multicanaux et l'imagerie satellitaire multispectrale

Estimation bayésienne des paramètres du spectre multifractal multivarié pour le traitement du signal et des images

L'analyse multifractale est devenue un outil de référence pour le traitement des signaux et des images. Fondée sur la quantification des fluctuations de la régularité locale, elle s'est avérée utile dans un nombre croissant d'applications, qui ne concernaient pourtant jusqu'à présent que des données univariées (séries temporelles à valeurs scalaires ou images acquises dans une seule bande spectrale). Récemment, les bases théoriques de l'analyse multifractale multivariée ont été élaborées, montrant un potentiel pour quantifier les dépendances entre plusieurs collections de données allant au-delà de la corrélation linéaire. Cependant, l'estimation précise des paramètres associés à un modèle multifractal multivarié reste un défi, limitant sévèrement leur utilisation réelle dans les applications. L'objectif principal de cette thèse est de proposer et d'étudier des méthodes d'analyse multifractale multivariée pour le traitement du signal et des images. Plus précisément, l'approche proposée s'appuie sur un nouveau modèle Gaussien multivarié adapté au logarithme des coefficients dominants d’ondelettes. Ce modèle utilise une approximation de la vraisemblance basée sur les résultats de Whittle et une augmentation de données pour les paramètres d'intérêt à valeurs matricielles. Ce modèle permet de construire des procédures d'estimation efficaces pour deux choix pertinents de lois a priori dans un contexte d'inférence Bayésienne. Des algorithmes basés sur des stratégies de Monte Carlo par chaines de Markov et d’Expectation-Maximization sont conçus et utilisés pour calculer les estimateurs bayésiens. Des simulations de Monte Carlo, réalisées sur des images et des signaux synthétiques multivariés avec différentes tailles d'échantillon, différents nombres de composantes et différents jeux de paramètres, montrent des améliorations significatives des performances par rapport à l'état de l'art. En outre, des limites inférieures théoriques sur la variance des estimateurs sont déterminées pour étudier le comportement asymptotique de ces estimateurs. Enfin, la pertinence du cadre d'estimation multifractale multivariée proposé est démontrée par l’application à deux exemples de données réelles : la détection de la somnolence à partir de signaux physiologiques multicanaux et l'imagerie satellitaire multispectrale.Multifractal analysis has become a reference tool for signal and image processing. Grounded in the quantification of local regularity fluctuations, it has proven useful in an increasing range of applications, yet so far involving only univariate data (scalar-valued time series or single channel images). Recently the theoretical ground for multivariate multifractal analysis has been devised, showing potential for quantifying transient higher-order dependence beyond linear correlation among collections of data. However, the accurate estimation of the parameters associated with a multivariate multifractal model remains challenging, severely limiting their actual use in applications. The main goal of this thesis is to propose and study practical contributions on multivariate multifractal analysis of signals and images. Specifically, the proposed approach relies on a novel and original joint Gaussian model for the logarithm of wavelet leaders and leverages on a Whittle-based likelihood approximation and data augmentation for the matrix-valued parameters of interest. This careful design enables efficient estimation procedures to be constructed for two relevant choices of priors using Bayesian inference. Algorithms based on Monte Carlo Markov Chain and Expectation Maximization strategies are designed and used to approximate the Bayesian estimators. Monte Carlo simulations, conducted on synthetic multivariate signals and images with various sample sizes, numbers of components and multifractal parameter settings, demonstrate significant performance improvements over the state of the art. In addition, theoretical lower bounds on the variance of the estimators are designed to study their asymptotic behavior. Finally, the relevance of the proposed multivariate multifractal estimation framework is shown for two real-world data examples: drowsiness detection from multichannel physiological signals and potential remote sensing applications in multispectral satellite imagery

Estimation bayésienne des paramètres du spectre multifractal multivarié pour le traitement du signal et des images

Multifractal analysis has become a reference tool for signal and image processing. Grounded in the quantification of local regularity fluctuations, it has proven useful in an increasing range of applications, yet so far involving only univariate data (scalar-valued time series or single channel images). Recently the theoretical ground for multivariate multifractal analysis has been devised, showing potential for quantifying transient higher-order dependence beyond linear correlation among collections of data. However, the accurate estimation of the parameters associated with a multivariate multifractal model remains challenging, severely limiting their actual use in applications. The main goal of this thesis is to propose and study practical contributions on multivariate multifractal analysis of signals and images. Specifically, the proposed approach relies on a novel and original joint Gaussian model for the logarithm of wavelet leaders and leverages on a Whittle-based likelihood approximation and data augmentation for the matrix-valued parameters of interest. This careful design enables efficient estimation procedures to be constructed for two relevant choices of priors using Bayesian inference. Algorithms based on Monte Carlo Markov Chain and Expectation Maximization strategies are designed and used to approximate the Bayesian estimators. Monte Carlo simulations, conducted on synthetic multivariate signals and images with various sample sizes, numbers of components and multifractal parameter settings, demonstrate significant performance improvements over the state of the art. In addition, theoretical lower bounds on the variance of the estimators are designed to study their asymptotic behavior. Finally, the relevance of the proposed multivariate multifractal estimation framework is shown for two real-world data examples: drowsiness detection from multichannel physiological signals and potential remote sensing applications in multispectral satellite imagery.L'analyse multifractale est devenue un outil de référence pour le traitement des signaux et des images. Fondée sur la quantification des fluctuations de la régularité locale, elle s'est avérée utile dans un nombre croissant d'applications, qui ne concernaient pourtant jusqu'à présent que des données univariées (séries temporelles à valeurs scalaires ou images acquises dans une seule bande spectrale). Récemment, les bases théoriques de l'analyse multifractale multivariée ont été élaborées, montrant un potentiel pour quantifier les dépendances entre plusieurs collections de données allant au-delà de la corrélation linéaire. Cependant, l'estimation précise des paramètres associés à un modèle multifractal multivarié reste un défi, limitant sévèrement leur utilisation réelle dans les applications. L'objectif principal de cette thèse est de proposer et d'étudier des méthodes d'analyse multifractale multivariée pour le traitement du signal et des images. Plus précisément, l'approche proposée s'appuie sur un nouveau modèle Gaussien multivarié adapté au logarithme des coefficients dominants d’ondelettes. Ce modèle utilise une approximation de la vraisemblance basée sur les résultats de Whittle et une augmentation de données pour les paramètres d'intérêt à valeurs matricielles. Ce modèle permet de construire des procédures d'estimation efficaces pour deux choix pertinents de lois a priori dans un contexte d'inférence Bayésienne. Des algorithmes basés sur des stratégies de Monte Carlo par chaines de Markov et d’Expectation-Maximization sont conçus et utilisés pour calculer les estimateurs bayésiens. Des simulations de Monte Carlo, réalisées sur des images et des signaux synthétiques multivariés avec différentes tailles d'échantillon, différents nombres de composantes et différents jeux de paramètres, montrent des améliorations significatives des performances par rapport à l'état de l'art. En outre, des limites inférieures théoriques sur la variance des estimateurs sont déterminées pour étudier le comportement asymptotique de ces estimateurs. Enfin, la pertinence du cadre d'estimation multifractale multivariée proposé est démontrée par l’application à deux exemples de données réelles : la détection de la somnolence à partir de signaux physiologiques multicanaux et l'imagerie satellitaire multispectrale

Multifractal anomaly detection in images via space-scale surrogates

International audienceMultifractal analysis provides a global description for the spatial fluctuations of the strengths of the pointwise regularity of image amplitudes. A global image characterization leads to robust estimation, but is blind to and corrupted by small regions in the image whose multifractality differs from that of the rest of the image. Prior detection of such zones with anomalous multifractality is thus crucial for relevant analysis, and their delineation of central interest in applications, yet has never been achieved so far. The goal of this work is to devise and study such a multifractal anomaly detection scheme. Our approach combines three original key ingredients: i) a recently proposed generic model for the statistics of the multiresolution coefficients used in multifractal estimation (wavelet leaders), ii) an original surrogate data generation procedure for simulating a hypothesized global multifractality and iii) a combination of multiple hypothesis tests to achieve pixel-wise detection. Numerical simulations using synthetic multifractal images show that our procedure is operational and leads to good multifractal anomaly detection results for a range of target sizes and parameter values of practical relevance

Estimation du paramètre de multifractalité: régression linéaire, maximum de vraisemblance ou inférence Bayésienne ?

International audienceMultifractal has nowadays become a standard tool in modern signal and image processing, mostly used to characterize scale-free spatial or temporal dynamics. While multifractality parameter estimation can be performed using well-documented procedures, it remains a challenging task for small sample-size observations. This works studies Expectation-Maximization estimators for the multifractality parameter and compares, by Monte Carlo simulations, their performance against state-of-the-art estimators for univariate small sample size time series.L'analyse multifractale est aujourd'hui un outil important de la caractérisation des dynamiques temporelles ou spatiales. Si l'estimation du paramètre de multifractalité peut se faire efficacement par des outils devenus standards, elle reste délicate pour des signaux et images de petites tailles. Le présent travail propose différents estimateurs construits sur des algorithmes Expectation-Maximization et compare leurs performances à l'aide de simulations de Monte Carlo contre les outils de l'état de l'art dans un contexte de signaux univariés de petites tailles

Estimation du paramètre de multifractalité: régression linéaire, maximum de vraisemblance ou inférence Bayésienne ?

International audienceMultifractal has nowadays become a standard tool in modern signal and image processing, mostly used to characterize scale-free spatial or temporal dynamics. While multifractality parameter estimation can be performed using well-documented procedures, it remains a challenging task for small sample-size observations. This works studies Expectation-Maximization estimators for the multifractality parameter and compares, by Monte Carlo simulations, their performance against state-of-the-art estimators for univariate small sample size time series.L'analyse multifractale est aujourd'hui un outil important de la caractérisation des dynamiques temporelles ou spatiales. Si l'estimation du paramètre de multifractalité peut se faire efficacement par des outils devenus standards, elle reste délicate pour des signaux et images de petites tailles. Le présent travail propose différents estimateurs construits sur des algorithmes Expectation-Maximization et compare leurs performances à l'aide de simulations de Monte Carlo contre les outils de l'état de l'art dans un contexte de signaux univariés de petites tailles

Multifractal anomaly detection in images via space-scale surrogates

International audienceMultifractal analysis provides a global description for the spatial fluctuations of the strengths of the pointwise regularity of image amplitudes. A global image characterization leads to robust estimation, but is blind to and corrupted by small regions in the image whose multifractality differs from that of the rest of the image. Prior detection of such zones with anomalous multifractality is thus crucial for relevant analysis, and their delineation of central interest in applications, yet has never been achieved so far. The goal of this work is to devise and study such a multifractal anomaly detection scheme. Our approach combines three original key ingredients: i) a recently proposed generic model for the statistics of the multiresolution coefficients used in multifractal estimation (wavelet leaders), ii) an original surrogate data generation procedure for simulating a hypothesized global multifractality and iii) a combination of multiple hypothesis tests to achieve pixel-wise detection. Numerical simulations using synthetic multifractal images show that our procedure is operational and leads to good multifractal anomaly detection results for a range of target sizes and parameter values of practical relevance

Bayesian Estimation for the Parameters of the Bivariate Multifractal Spectrum

International audienceMultifractal analysis is a reference tool for the analysis of data based on local regularity and has proven useful in an increasing number of applications involving univariate data (scalar valued time series or single channel images). Recently the theoretical ground for a multivariate multifractal analysis has been explored, showing its potential for capturing and quantifying transient higher-order dependence beyond correlation among collections of data. Yet, the accurate estimation of the parameters associated with these multivariate multifractal models is challenging. Building on these first formulations of multivariate multifractal analysis, the present work proposes a Bayesian model and studies an estimation framework for the parameters of a quadratic model for the joint multifractal spectrum of bivariate time series. The approach relies on a novel joint Gaussian model for the logarithm of wavelet leaders and leverages on a Whittle approximation and data augmentation for the matrix-valued parameters of interest. Monte Carlo simulations demonstrate the benefits of the method with respect to previous formulations. In particular, we obtain significant performance improvements at only moderately larger computational cost, for large ranges of sample size and multifractal parameter values